رگرسیون لاسو بیزی

انتخاب بهترین زیرمدل یکی از بحث های مهم در مدل های رگرسیونی می باشد. هدف این روش ها این است که پیش بین های مهم و پیش بین های قابل اغماض تعیین شده و رابطه ی بین متغیر پاسخ و متغیرهای پیش بین ساده تر بیان شود. علاوه بر این دقت برآوردها و در نتیجه پیش بینی مشاهدات آینده نیز افزایش یابد. فرآیندهای انتخاب متغیر کلاسیک از قبیل انتخاب بهترین زیرمجموعه و انتخاب گام به گام، اغلب از لحاظ محاسباتی پرهزینه هستند و گاهی نتایج ناپایداری نیز دارند. بنابراین با توجه به محدودیت هایی که روش های گام به گام در این زمینه دارند، می توان از روش های تنظیم بر مبنای رگرسیون جریمه دار استفاده کرد. دو روش از روش های تنظیم، رگرسیون ستیغی و رگرسیون لاسو است که روش لاسو دارای ویژگی انتخاب متغیر می باشد. از آنجا که در بیشتر موارد می توان لگاریتم تابع درستنمایی را به صورت تابع زیان و تابع چگالی توزیع پیشین را نیز به عنوان تابع جریمه تفسیر کرد، اغلب برای روش های تنظیم می توان تفسیر بیزی ارایه داد. بنابراین در این رساله لاسو را از دیدگاه بیزی مورد مطالعه قرار داده و اهمیت روش لاسو بیزی را نسبت به روش لاسو معمولی در ایجاد برآورد خطاهای استاندارد و فواصل اعتبار مناسب برای ضرایب رگرسیونی، بیان می کنیم.